Dù nhiều người nghĩ rằng Ivan qua đời khi đang sắp xếp một bàn cờ, có lẽ đúng hơn là ông qua đời khi đang chơi cờ với Bogdan Belsky ngày 18 tháng 3 năm 1584. Khi hầm mộ của Nga hoàng Ivan được mở ra trong cuộc trùng tu hồi thập niên 1960, xác ông được xét nghiệm và phát hiện có chứa hàm lượng thuỷ ngân lớn, cho thấy rất có thể ông đã bị đầu độc.[7] Các nghi vấn hiện tại tập trung vào các cố vấn của ông là Belsky và Boris Godunov (người trở thành Nga hoàng năm 1598). Ba ngày trước đó, Ivan được cho là đã định cưỡng hiếp Irina, em Godunov và là vợ của Feodor. Những tiếng kêu của bà khiến Godunov và Belsky chú ý, sau đó Ivan thả Irina, nhưng Belsky và Godunov coi mình như đã bị lĩnh án tử hình. Truyền thống cho rằng họ đã đầu độc hoặc bóp cổ Ivan đến chết vì lo sợ cho tính mạng của mình. Thuỷ ngân được tìm thấy trong thi thể Ivan cũng có thể liên quan tới việc điều trị bệnh giang mai, bệnh được cho là Ivan đã từng mắc phải. Ngay khi Ivan qua đời, đất nước đã bị tàn phá rơi vào tay người con trai bất tài và còn nhỏ tuổi của ông là Fyodor I.